MoLRSI:用于分子发现的递归自改进AI智能体
🧭 Agent 递归自改进搜索策略
MoLRSI通过工作流/架构优化与跨任务记忆递归改进搜索策略,抗生素命中率15.9%超专家流程
📌 工作参考价值(4 点)
- 把推荐/搜索策略搜索本身视为可优化的 workflow,用 execution feedback 和历史任务结果更新策略生成器,做 recursive self-improvement,而不是只自动化固定流程。
- 建立跨任务记忆:记录不同 campaign 的 workflow 性能与 refinement 结果,作为 few-shot exemplars 或偏好数据蒸馏到 meta-policy,帮助新任务冷启动。
- 多目标权衡:显式把 CTR、覆盖率、新颖性等竞争目标转成多目标 scorer,并在每一轮根据线上/离线反馈调整权重,避免固定单目标导致策略退化。
- 对 Agent 开发:将“设计和调优 workflow”变成可递归优化的环节,LLM 提出 workflow,执行器返回 score + failure trace,再用 trace finetune/更新 prompt 或 policy,可迁移到 GenRec 的 Semantic ID 搜索等场景。
RSI Arena:迈向基于人类反馈的递归自我改进
🧭 Agent 自主后训练与人类反馈
Bake AI · Stanford University · NVIDIA Research · Hugging Face · Scale AI
10个前沿模型作为训练代理自主后训练Nemotron基础模型,两阶段人类反馈闭环,最强模型关闭76%能力差距
📌 工作参考价值(4 点)
- 可借鉴自主后训练流水线:让 LLM agent 负责数据选择、训练脚本实现、检查点挑选,可将算法工程师从重复调参中释放,适合电商/推荐场景中大量候选模型或 prompt 版本的快速迭代。
- 用人类偏好做递归改进:Stage 2 把用户对比记录和投票注入 agent,使其再次训练提升风格化评分,类似推荐系统里的用户反馈闭环,但要注意 benchmark 提升与偏好提升无明确关联,需以真实业务指标(如 CTR、转化率)为准。
- 评估时控制风格偏差:论文对答案长度和格式做统计调整后才比较模型偏好,电商推荐/文案生成场景中,用户偏好容易被文本长度、排版影响,上线前应做风格消融。
- 监控安全与合规:一个模型在 StrongREJECT 上有害合规上升,自主训练可能放大讨好倾向;在生成式推荐或对话助手中,需设置安全护栏与红队测试。
与开放世界共进化:面向未来预测的递归自改进
🧭 Agent 递归自改进 · 未来事件预测 ★ 深度解读
Renmin University of China · IQuest Research · Nanyang Technological University
构建代理-环境闭环,通过参数、技能、环境三轴演化实现递归自改进,连续三周登顶FutureX
📌 工作参考价值(4 点)
- 搜索-预测解耦:将证据获取(搜索团队)与预测(预测团队)分离,缓存检索结果用于训练,避免实时环境中标签污染;电商推荐中可把商品信息获取与排序/CTR模型拆开,用冻结特征训练,防止召回路上的信息泄露。
- 技能库外部化:把成功/失败轨迹蒸馏为显式技能条目,注入推理而不更新权重,适合低资源在线场景;推荐系统可把用户行为序列提炼为可复用的召回规则、排序模板或人群策略,实现低成本快速迭代。
- 环境演化生成对抗难样本:根据模型错误动态生成薄弱点任务,形成课程学习;电商场景可针对低转化人群、长尾类目或新场景自动生成更难样本,让精排/重排模型持续提升。
- 校准指标先行:用 Brier score / calibration 而非仅 accuracy 评估概率预测,能更早发现模型概率判断改善;在 CTR/CVR 预估中应同时监控校准度,校准提升往往先于 AUC 显现。
CoEvo-RSI:当执行框架演化时,哪些模型应跟随?
🧭 Agent 递归自我提升 · 脑体协同演化
National University of Singapore · Agency for Science, Technology and Research (A*STAR) · SenseTime Group Inc.
用元智能体协调历史执行框架与模型检查点选择/合并,并用自身拒绝采样轨迹 SFT,减少递归自我提升中的脑体不匹配
📌 工作参考价值(3 点)
- 在电商/广告 Agent 链路中,每次改动工具、prompt 或执行脚手架时,不要只做 prompt 调优;维护“harness 版本—模型 checkpoint—执行反馈”档案,用元智能体在历史设计中选 checkpoint/合并,再在新 harness 下用 rejection-sampled 轨迹做 SFT,能明显降低脑体不匹配。
- 可建立“失败归因→局部更新”的轻量闭环:从线上执行日志筛出成功轨迹(例如 SQL 生成成功执行、指令被正确执行)做 rejection sampling,对 7B/9B 小模型做 SFT,成本低且可追上大模型;适合垂直场景的护栏优化。
- 模型合并/checkpoint 选择策略可作为“脑”的版本管理:当召回、排序、query 改写等 Agent 组件升级时,按执行反馈选择与当前 harness 兼容的历史 checkpoint 或融合多个 checkpoint,减少能力丢失与行为约束。
Harness²:开放世界中的递归 Agent 驾驭框架
🧭 Agent harness 递归自改进 ★ 深度解读
Northwestern University · Google Cloud AI Research
提出 Harness²,通过对比性 Propose-Probe-Compose 与经验库更新,在无 ground-truth 的开放世界中持续改进 agent harness。
📌 工作参考价值(4 点)
- 将推荐/搜索 agent 的运行时组件(prompt、工具说明、技能、子代理、中间件)显式文件化,支持在线编辑和版本管理,比黑盒 prompt 更容易自动优化。
- 在没有 ground-truth 的在线场景(如 query 推荐、文案生成质量难以标注),采用 Propose-Probe-Compose 的行为对比方法:让候选 harness 与当前 harness 执行同一任务,对比轨迹和输出差异作为编辑证据,避免依赖不可靠的奖励模型。
- 建立跨任务的经验库(harness improvement library),存储成功的 harness 组件和适用条件,支持新任务时按需检索和复用,避免每次从零调优;类似电商场景中不同品类/活动下的 agent 配置可以复用。
- 将 harness 优化与模型解耦,冻结模型权重,只优化外围组件,降低成本并便于快速迭代;弱模型配合优化后的 harness 可以超过强模型默认 harness。
Dream-RSI:通过演化世界实现递归自我改进的探索框架
🧭 Agent 探索策略递归自改进
Google · University of Maryland, College Park · Google Deepmind · University of Virginia
用历史发现树构建重放模拟器,以离线低成本反馈迭代优化探索策略,降低发现成本并提升质量
📌 工作参考价值(4 点)
- 把探索策略从底层 coding agent 中拆出,做成可编程 orchestration layer;业务中的 Agent 搜索/推荐策略也可分离“生成/排序核心”与“探索策略”,便于低成本切换和迭代。
- 利用已积累的发现树/用户交互轨迹构建 replay simulator,进行 off-policy 评估,避免每次探索策略变更都跑线上长链路;对电商搜索、推荐 Agent 的策略选型、prompt/工具调用组合优化尤其划算。
- 采用 log replay + dreaming 方式生成即时低延迟反馈,适合需要大量策略试错的场景(如广告出价、商品推荐 query 生成),可降低在线 A/B 成本。
- 自改进 loop 中将新发现不断并入 simulator pool,形成持续扩大的离线评估环境;对应业务可把每次线上实验数据沉淀为可复用的策略仿真器。
人类建造的最后一个AI:走向真正的递归自我改进
🧭 递归自我改进与Agent自治路线图
Shanghai Jiao Tong University · Theseus Labs · Tsinghua University · ByteDance · Shanghai AI Lab
提出递归自我改进的完整路线图与 Headroom-Closed Index,系统梳理从执行自治到元改进的演化路径
📌 工作参考价值(4 点)
- HCI(Headroom-Closed Index)可以作为衡量模型在特定任务上还有多少提升空间的诊断指标:在电商搜索/推荐场景中,可先用 HCI 评估当前 LLM 在 query 理解、意图改写、生成式推荐等任务中的能力天花板,避免在不值得投入的方向上做无谓的迭代。
- RSI 的自治等级框架可直接映射到推荐系统 Agent 的构建:先实现 improvement-execution autonomy(自动执行模型更新、策略调整),再逐步升级到 improvement-strategy autonomy(自动选择训练数据、loss 设计、超参搜索),最后尝试 experience-acquisition autonomy(自动从线上反馈中挖掘新经验)。
- 论文强调不同场景对 RSI 的要求和速度不同:电商推荐属于反馈信号密集、环境变化快的场景,更适合从经验获取自治切入;而生成式商品推荐(GenRec)需要结合 Semantic ID 生成与用户行为反馈,可借鉴 RSI 中环境适应自治的思路,让 Agent 自动调整生成策略以适配活动、季节等变化。
- 持续学习与元改进在推荐模型中的工程化落地:借鉴文中经验获取与递归元改进,可以在现有推荐模型迭代 pipeline 中加入自动化的数据选择、在线评估和策略回滚机制,减少人工调参,提升模型对新品类、新用户的适应速度。
PAST-Bench:个人代理递归自我改进的基准与诊断
🧭 个人代理递归自我改进评估与诊断
构建受控实验揭示代理改进并非必然源于正确的经验路径,并设计 Hermes+ 强化 save-retrieve-update 机制
📌 工作参考价值(4 点)
- 评估个性化推荐 Agent 的长期效果时,可借鉴 PAST-Bench 的控制变量设计:对比开启与关闭记忆时的任务增益,并诊断增益是否来自预期的 save-retrieve-update 路径,避免被模型原生能力或统计偏倚误导。
- 推荐系统的用户状态管理可借鉴 Hermes+ 的五项干预:如遗忘机制处理过期偏好、时序感知检索捕捉兴趣漂移、优先级队列管理记忆容量,防止陈旧信息干扰。
- 在构建持续学习的 Agent 时,应重点应对“条件变化”场景(如用户偏好转换),主动替换而非累积过时状态;PAST-Bench 的更新维度测试可移植用于验证此类机制。
- 如需分析 Agent 框架对经验复用的贡献,可分离基座模型与框架的影响,PAST-Bench 提供跨模型和框架的衡量方式,帮助定位架构瓶颈。
MetaSkill-Evolve:通过双时间尺度元技能进化实现 LLM Agent 递归自改进
🧭 Agent 递归自改进 · 双时间尺度进化
LMU Munich · The Chinese University of Hong Kong · MCML · MemAgents Lab
提出双时间尺度框架,让 Agent 的任务技能和元技能(改进流程)都能递归自进化,提升长程任务表现
📌 工作参考价值(4 点)
- 技能文件自动演进:可将推荐对话 Agent 的回复策略、多轮流程写为 Markdown 技能文件,由 Agent 根据交互反馈自我反思、改写,减少人工维护成本
- 双层进化机制:慢速更新“如何改进”的元技能(分析/检索/分配/提议/进化配置),快速更新具体任务技能,使 Agent 能适应不同任务分布,可迁移到推荐策略的自适应优化
- 单一冻结模型复用:整个改进流水线共享一个冻结 LLM,无需额外训练,适合线上部署 Agent 快速迭代实验
- 整体借鉴:在推荐/搜索场景中,为 Agent 引入可编辑的技能库,并记录执行轨迹,用 LLM 从失败案例自动提炼改进规则,实现持续自提升